Khi không còn quyền lực, những năm 30 Phùng Ngọc Tường chỉ trích chính sách nhượng bộ quân xâm lược Nhật Bản của chính quyền Tưởng. Tháng 5 năm 1933, Phùng trở thành Tư lệnh quân kháng Nhật ở Sát Cáp Nhĩ cùng với các tướng Cát Hồng Xương (nguyên Tư lệnh Binh đoàn 22, Chủ tịch tỉnh Ninh Hạ) và tướng Phương Chấn Vũ (nguyên Tư lệnh đồn trú Tế Nam, Chủ tịch tỉnh An huy) với lực lượng lên tới 10 vạn người. Vào cuối tháng 7 Phùng và Cát thành lập tại Trương Gia khẩu Ủy ban khôi phục bốn tỉnh đông bắc. Đội quân này chiếm lại Đa Luân (nay thuộc Nội Mông) bị Nhật chiếm và dấy lên cao trào khánh Nhật trên cả nước. Trước tình hình đó, Tưởng Giới Thạch sợ đảng cộng sản sẽ nắm quyền kiểm soát các lực lượng chống Nhật nên phái 6 vạn quân đến bao vây. Bị cả quân Nhật và quân Tưởng bao vây, Phùng Ngọc Tường đành phải rút lui, về nghỉ tại Thái An, Sơn Đông.

Giữa những năm 1935 đến 1945, Phùng Ngọc Tường tiếp tục ủng hộ Quốc dân đảng. Tháng 10 năm 1935, chính quyền Tưởng Giới Thạch mời Phùng đến Nam Kinh đảm nhận chức vụ Phó chủ tịch Hội đồng quân sự Quốc gia. Ông giữ chức vụ đó đến năm 1938, sau đó tiếp tục tham gia Hội đồng quân sự quốc gia với tư cách Ủy viên cho đến năm 1945. Khi xảy ra sự biến Tây An năm 1936, ông kêu gọi trả tự do cho Tưởng Giới Thạch lúc đó bị bắt giữ bởi các lực lượng yêu nước. Sau năm 1937 ông làm Tư lệnh Quân đoàn 6. 1945, Trung Hoa phá Phát xít thành công.